Ginsberg, der aus einer chassidisch geprägten Familie stammte, studierte Philosophie und Naturwissenschaften und wurde ein Anhänger des Zionismus. Er wurde Mitglied der Bewegung Hovevei Zion, die noch Leo Pinsker mitbegründet hatte und versuchte mit einer Bnei Moshe genannten geheimen Gruppe, Hovevei Zion von innen heraus zu einer in dem sprachlichen wie kulturellen Sinne hebräischen Organisation umzubauen.

Nach zwei Palästinareisen 1891 und 1892 gelangte Ginsberg zu der Ansicht, dass die Errichtung eines jüdischen Staates gerade dort mit vielen, teilweise schwerwiegenden Problemen zu kämpfen haben würde und favorisierte von da an eine Vorgehensweise, die erst einmal wieder die jüdische Kultur in der Gegend zu verankern forderte. Die Haltung Ginsbergs, die daher auch Kultureller Zionismus genannt wurde, unterschied sich so in der Analyse wenig von den Ergebnissen der sogenannten Politischen Zionisten. Lediglich die Schärfe der Kritik an Theodor Herzl mag hier auffallen. Ginsberg zog aber anderen Konsequenzen aus seinen Erkenntnissen: Während die Politischen Zionisten den Primat der Staatsgründung vertraten und gegebenenfalls auch auf andere Siedlungsgebiete hierfür ausgewichen wären, beschränkten Ginsberg und seine Anhänger lieber die politischen Ambitionen, bevorzugten dafür aber Erez Israel alAbsicht. Erst Weizmann gelang es, die beiden Fraktionen wieder zusammenzuführen.

Ginsberg lebte ab 1907 als Handelsvertreter der Wissotzky Tee-Gesellschaft in London und gelangte erst 1922 nach Palästina, wo er 1927 in Tel-Aviv verstarb.